事实证明，图形神经网络（GNN）在图形结构数据的几个预测建模任务中已被证明。在这些任务中，链接预测是许多现实世界应用（例如推荐系统）的基本问题之一。但是，GNN不能免疫对抗攻击，即精心制作的恶意例子，旨在欺骗预测模型。在这项工作中，我们专注于对基于GNN的链接预测模型进行特定的白盒攻击，其中恶意节点的目的是出现在给定目标受害者的推荐节点列表中。为了实现这一目标，攻击者节点还可以指望它直接控制的其他现有同伴的合作，即在网络中注入许多``vicious''节点的能力。具体而言，所有这些恶意节点都可以添加新的边缘或删除现有的节点，从而扰乱原始图。因此，我们提出了野蛮人，一种新颖的框架和一种安装这种链接预测攻击的方法。野蛮人将对手的目标制定为一项优化任务，从而达到了攻击的有效性与所需的恶意资源的稀疏之间的平衡。在现实世界和合成数据集上进行的广泛实验表明，通过野蛮人实施的对抗性攻击确实达到了很高的攻击成功率，但使用少量恶性节点。最后，尽管这些攻击需要完全了解目标模型，但我们表明它们可以成功地转移到其他黑框方法以进行链接预测。
translated by 谷歌翻译
如果没有巨大的数据集，许多现代的深度学习技术就无法正常工作。同时，几个领域要求使用稀缺数据的方法。当样本具有变化的结构时，此问题甚至更为复杂。图表示学习技术最近已证明在各种领域中都成功。然而，当面对数据稀缺时，就业的体系结构表现不佳。另一方面，很少的学习允许在稀缺的数据制度中采用现代深度学习模型，而不会放弃其有效性。在这项工作中，我们解决了几乎没有图形分类的问题，这表明将简单的距离度量学习基线配备了最新的图形嵌入式嵌入者，可以在任务上获得竞争性结果。虽然体系结构的简单性足以超越更复杂的功能，它还可以直接添加。为此，我们表明可以通过鼓励任务条件的嵌入空间来获得其他改进。最后，我们提出了一种基于混合的在线数据增强技术，该技术在潜在空间中起作用，并显示其对任务的有效性。
translated by 谷歌翻译
在最初出生在太空行业的基于时间轴的计划方法中，一组状态变量（时间表）的演变受一组时间约束的控制。基于传统时间表的计划系统在整合计划与处理时间不确定性的执行方面表现出色。为了处理一般的非确定主义，最近引入了基于时间轴的游戏的概念。已经证明，发现此类游戏是否存在获胜策略是2Exptime-Complete。但是，缺少合成实施此类策略的控制器的具体方法。本文填补了这一空白，概述了基于时间轴游戏的控制器合成方法。
translated by 谷歌翻译
整数线性编程（ILP）提供了一种可行的机制，可以用自然语言编码有关可解释的多跳推断的明确和可控制的假设。但是，ILP公式是不可差异的，不能集成到更广泛的深度学习体系结构中。最近，Thayaparan等人。 （2021a）提出了一种新的方法，将ILP与变压器整合在一起，以实现复杂多跳推断的端到端的可不同性。尽管已证明该混合动力框架可以提供更好的答案和解释选择，而不是基于变压器和现有的ILP求解器，但神经符号的整合仍然依赖于ILP配方的凸松弛，这可以产生亚最佳溶液。为了改善这些局限性，我们提出了DIFF-BOMP解释器，这是一种基于可区分的黑框组合求解器（DBCS）的新型神经符号结构（Pogan \ V {C} I \'C等，2019）。与现有的可区分求解器不同，提出的模型不需要对明确的语义约束的转换和放松，从而可以直接，更有效地整合ILP公式。 DIFF-COMBLEXER证明了与非差异性求解器，变压器和现有的基于可区分约束的多跳推理框架相比的准确性和解释性的提高。
translated by 谷歌翻译
森林砍伐是导致气候变化的因素之一。气候变化对人类的生命有严重的影响，并且由于二氧化碳等温室气体的排放到大气中而发生。重要的是要了解缓解工作的森林砍伐原因，但是缺乏数据驱动的研究来预测这些森林砍伐驱动因素。在这项工作中，我们提出了一种称为多模式SuperCon的对比学习体系结构，用于使用从Landsat 8获得的卫星图像对印度尼西亚的森林砍伐进行分类。多模式SuperCon是一种结合了对比度学习和多模式融合以处理可用的Deforestation数据集的架构。我们提出的模型优于先前的驾驶员分类工作，与同一任务的最新旋转模型相比，准确性提高了7％。
translated by 谷歌翻译
2022-07-14
对比学习是一种表示方法，该方法是通过将样品与其他类似样本进行对比，以使它们紧密地将其结合在一起，从而在特征空间中形成簇。学习过程通常是使用两阶段训练架构进行的，它利用对比度损失（CL）进行功能学习。对比度学习已被证明在处理不平衡数据集方面非常成功，其中某些课程的代表性过高，而另一些类的代表性不足。但是，以前的研究并未针对数据集进行不平衡的CL进行专门修改。在这项工作中，我们引入了一个不对称版本的Cl（称为ACL），以直接解决类不平衡问题。此外，我们提出了不对称的局灶性对比损失（AFCL）作为ACL和局灶性对比损失（FCL）的进一步概括。 FMNIST和ISIC 2018不平衡数据集的结果表明，AFCL能够以加权和未加权分类精度优于CL和FCL。在附录中，我们在熵上提供完整的公理处理以及完整的证明。
translated by 谷歌翻译
在过去几年中，神经字符动画已经出现并提供了一种动画虚拟字符的自动方法。它们的运动由神经网络合成。用用户定义的控制信号实时控制该运动也是视频游戏中的重要任务。基于全连接层（MLP）和专家混合物（MOE）的解决方案已经令人印象深刻的导致产生和控制环境与虚拟字符之间的近距离相互作用的各种运动。然而，完全连接层的主要缺点是它们的计算和内存成本，可能导致子优化的解决方案。在这项工作中，我们在交互式角色动画的背景下应用修剪算法以压缩MLP-Moe神经网络，这降低了其参数的数量，并在该加速度和合成的运动质量之间进行权衡加速其计算时间。这项工作表明，通过相同数量的专家和参数，修剪模型产生的运动伪像比密集模型更少，并且学习的高级运动功能对于两者相似
translated by 谷歌翻译
视觉关注估计是不同学科的十字路口的一个积极的研究领域：计算机视觉，人工智能和医学。估计表示关注的显着图的最常见方法之一是基于观察到的图像。在本文中，我们表明可以从EEG采集中检索视觉注意力。结果与观察到的图像的传统预测相当，这具有很大的兴趣。为此目的，已经记录了一组信号，并且已经开发出不同的模型来研究视觉关注与大脑活动之间的关系。结果令人鼓舞，与其他方式的其他方法令人鼓舞，与其他方式相比。本文考虑的代码和数据集已在\ URL {https://figshare.com/s/3e353bd1c621962888AD}中提供，以促进该领域的研究。
translated by 谷歌翻译
为了解释神经NLI模型及其推理策略，我们进行了一个系统的探测研究，调查了这些模型是否捕获了自然逻辑的至关重要：单调性和概念包容性。在向下单调上下文中正确识别有效推论是NLI性能的已知绊脚石，包括否定范围和广义量子等语言现象。要了解这种困难，我们将单调性强调为上下文的属性，并检查模型在中文嵌入中捕获单调信息的程度，这些嵌入式是其决策过程的中间嵌入。绘制最近探测范式的进步，我们比较各种模型的单调性功能的存在。我们发现，单调信息在基准测试中实现高分的流行NLI模型的表现中，并观察到基于微调策略的这些模型的改进引入了更强大的单调性功能，以及他们在挑战集上的提高性能。
translated by 谷歌翻译
最近的性能（SOTA）用于图表代表学习（GRL）的性能的改进已经以显着的计算资源要求，例如，用于训练，例如，通过背部计算渐变在许多数据时期。同时，单数值分解（SVD）可以找到闭合形式的解决方案以凸出的问题，仅使用少数时代的时期。在本文中，我们为具有适度硬件的人进行了更多计算贸易。我们设计一个计算\ textit {隐式}定义的矩阵的SVD的框架，并将此框架应用于多个GRL任务。对于每个任务，我们导出了SOTA模型的线性近似，其中我们设计（昂贵 - 存储）矩阵$ \ mathbf {m} $和培训模型，通过$ \ mathbf {m}的svd rend-form，以封闭形式$，无需计算$ \ mathbf {m} $的条目。通过在一个步骤中融合到独特的点，并且在没有计算梯度的情况下，我们的模型在文章引文和生物互动网络等各种图表中显示出具有竞争性的经验测试性能。更重要的是，SVD可以初始化更深入的模型，该模型几乎无处不在地是非线性的，但在其参数驻留在超平面上时，虽然线性地行事，但是在超平面上初始化时，则行为。然后，更深入的模型可以在仅几个时期内进行微调。总的来说，我们的程序比现有技术的方法训练数百次，同时竞争经验测试性能。我们开源我们的实施：https://github.com/samihaija/isvd
translated by 谷歌翻译